Thời kỳ Tùy-Đường, quan chế địa phương từng bước hoàn thiện, Tùy Văn Đế đổi chế độ ba cấp châu-quận-huyện từ thời Hán Linh Đế thành chế độ hai cấp châu-huyện, đồng thời hợp nhất một số châu huyện, cắt giảm viên chức dư thừa, tinh giản cơ cấu chính quyền. Sang thời Tùy Dạng Đế, Tùy lại đổi châu thành quận, vẫn duy trì chế độ hai cấp. Mặc dù triều Tùy thi hành chế độ hai cấp quận (châu) và huyện, song số quận vượt xa con số 60 quận vào năm thứ 31 (210 TCN) thời Tần Thủy Hoàng, cũng như con số 103 quận vào năm Nguyên Thủy thứ 2 (2) thời Hán Bình Đế, vào thời kỳ đỉnh cao có đến 190 quận. Triều đình Tùy không thể đồng thời quan tâm đến gần 200 đơn vị hành chính cấp quận, do vậy Tùy Dạng Đế mô phỏng theo Hán Vũ Đế khi xưa, thiết lập "giám sát châu" để giám sát công việc tại các quận, giám sát châu đặt chức quan thứ sử, phụ quan có trưởng sử hay tư mã. Đương thời, Tùy có các "giám sát châu": Ký Châu đạo, Duyện Châu đạo, Thanh Châu đạo, Từ Châu đạo, Dự Châu đạo, Dương Châu đạo, Kinh Châu đạo, Lương Châu đạo và Ung Châu đạo. Ở cấp quân (châu) thì đặt chức thái thú, phụ quan có quận thừa, quận úy hay quận chính. Tại phong quốc của các chư hầu vương, đặt các quốc quan: lệnh, đại nông, úy, điển vệ, thường thị. Dưới cấp quận (châu) thì đặt khu hành chính cấp huyện, các huyện đặt huyện lệnh, phụ quan có: huyện thừa, huyện úy, huyện chính. Thủ đô còn gọi là "Kinh huyện", các huyện căn cứ theo vị trí mà phân thành "vọng huyện" và "khẩn huyện", hoặc dựa theo hộ khẩu ít hay nhiều mà phân thành bốn hạng: thượng, trung, trung hạ và hạ. Tổ chức cơ sở dưới cấp huyện là hương, lý, bảo, lân;[chú 4] hương đặt chức "kì lão", lý đặt chức "lý chính". "Lý chính" phụ trách khảo sát hộ khẩu, thu và giao đất đai, giám sát sản xuất nông nghiệp. Thị trấn có trên 500 hộ thì lập phường, đặt chức phường chính; ở bên ngoài thành thì lập thôn; đặt chức "thôn chính".[31]

Tùy Văn Đế cải cách chế độ bổ nhiệm quan viên địa phương, áp dụng "chế độ thuyên tự": quan viên địa phương từ hàng cửu phẩm trở lên đều do Lại bộ bổ nhiệm và miễn nhiệm, mỗi năm lại tiến hành khảo hạch. Tá lại châu huyện cứ ba năm lại bị hoán đổi, không được phép dùng người địa phương, nhất định phải dùng người nơi khác, do đó ngăn chặn được cường hào địa chủ ở địa phương lũng đoạn chính quyền, giảm thiểu nguy cơ quan thương câu kết, tăng cường khống chế của trung ương đối với địa phương. Triều Tùy phỏng theo cửu phẩm trung chính chế, chiếu theo hoàn cảnh của các quận (châu) và huyện mà phân trên dưới, dựa vào đó mà chức quan và phẩm cấp cũng khác biệt, song tình huống cụ thể thì được ghi lại không nhiều. Ngoài ra, Ung châu, Kinh Triệu quận, Trường An huyện do yếu tố chính trị nên được quy hoạch khá đặc thù, danh xưng của trưởng quan, cách sắp xếp chức quan cũng có khu biệt. Sau khi triều Tùy diệt vong, triều Đường đổi quận thành châu, đồng thời trên cấp châu đặt giám sát khu cấp đạo, lập ra chế độ hai cấp châu và huyện.[31]

Về cương vực, triều Tùy có chiến tranh kéo dài nhiều năm với Cao Câu Ly ở đông bắc, biên giới cố định tại khu vực Liêu Thủy. Ở biên giới phía bắc, khu vực Hà Sáo từng do Đột Quyết khống chế song sau bị Tùy chiếm lĩnh, biên giới mở rộng đến các nơi ở phía bắc Âm Sơn như Ngũ Nguyên, Định Tương, hàng phục Khải Dân khả hãn của Đột Quyết. Ở khu vực Tây Vực, triều Đường thu được Y Ngô quận (nay là địa khu Cáp Mật, Tân Cương). Nhân cơ hội Thổ Dục Hồn hãn quốc bị Cao Xa đánh bại, Tùy Dạng Đế cho quân đánh diệt Thổ Dục Hồn, chiếm được lãnh địa ở khu vực Thanh Hải, ở hành lang Hà Tây, đặt bốn quận: Thiện Thiện, Thả Mạt, Tây Hải, Hải Nguyên; thâm nhập hồ Thanh Hải và đông bộ Tây Vực. Ở tây nam, vào thời Tùy sơ có khả năng cai quản khu vực Nam Trung, vào năm 593 đặt Nam Ninh châu tổng quản tại Vị (nay thuộc Khúc Tĩnh, Vân Nam), song một vài năm sau do Thoán tộc phản kháng nên bị bãi bỏ. Ở phương nam, triều Tùy tiến đánh nước Lâm Ấp, đặt ba quận: Bỉ Cảnh, Tượng Phổ, Hải Âm; trong đó Hải Âm quận ở phía nam Nhật Nam quận thời Tây Hán, không lâu sau người Lâm Ấp thu phục đất cũ. Ngay từ thời Nam triều Lương và Trần, thủ lĩnh tộc Lý ở Nam Lĩnh là Tiển phu nhân đã được người Đam Nhĩ trên đảo Hải Nam quy phụ.[32] Do Tiển phu nhân quyết định trung thành với Tùy, Tùy thuận lợi trong việc quản lý đảo Hài Nam, đặt Châu Nhai quận và Đam Nhĩ quận trên đảo.